人工智能会不会取代甚至毁灭人类？

本周一在《美国再次走在前面，我们何时才能追上？》谈了下ChatGPT，今天凌晨1点因为违规被删了，这倒没什么，只是有些奇怪怎么违规的？

大体介绍下被删的这篇的内容，方便今天接着谈：

这篇分为3部分。

第一部分介绍了ChatGPT的一些典型功能。比如写论文和课堂作业、编程和通过面试、医疗诊断、辅助法官裁决等等，种种迹象表明，人工智能对脑力、经验劳动的替代，会比对体力劳动的替代来得更快，并举了两类职业。

第二部分谈ChatGPT的不足之处。比如不能正确判断真实和虚假，存在有逻辑的撒谎现象，欺骗性更大。虽然在信息搜集和语言表达上已经超过大多数人，但无法模拟人的身体和情绪价值，更无法替代人的创造性工作。

第三部分谈中美的差距，和我们的问题。在ChatGPT的相关技术上中美是平级的，但客观上中国落后ChatGPT至少2年。有三大问题：各自为战，低效重复，没有形成良好的生态循环，导致模型训练度严重不足，未形成“飞轮”机制；中文世界数据质量差，数据清洗、数据孤岛等问题迫切需要解决；最核心的问题在于，过于功利和短视的理念，相比美国在看不到前景的时候能够持续投入，中国更倾向于验证可行之后，快速跟随，最后一点在《现代化：既是登天路，更要渡劫关》有所展开。

最后强调，美国确实面临危机，但也可能正处于新一轮技术大爆发的前夕，原因在前天《蜕壳中的美国：脆弱又危险》展开了。

这一篇也得到一些关注，目前小镇正在进行完善、调整，以更适合纸质刊印。实在想不明白这样一篇文章竟然也能违规，以后举例得更加慎重才好，毕竟举报的多了，也是个麻烦事。

---

进入今天的正题。

在《美国再次走在前面，我们何时才能追上？》之后，有不少读者留言，担心人工智能的发展终有一天会威胁到人类的存在。

人工智能到底能不能成为独立于人类的新智慧体，到底能不能取代甚至毁灭人类，有很多不同的看法。

比如马斯克说“人类或许只是人工智能的开机引导程序”，这句话的核心是人类文明未来能否继续以人类这个种群作为载体存在，还是说最终会被更加可持续化的自组织系统也就是人工智能所代替。就像《流浪地球2》里面的“数字生命派”，从MOSS理性计算的角度，延续人类文明不等于保留人类肉体形式的存在。（参见《藏在细节中的未来》）

从能量利用和信息传递效率上，人类这种碳基生物体的效率极为低下。比如需要一条漫长的生物链条，才能将太阳能转化为人体所需要的能源和物质，还需要呼吸氧气排出二氧化碳，能量利用的环节太多、效率太低；而对AI来说，或许算力才是唯一追求，毕竟能源实在太充足了，AI最需要人类的或许就是马斯克所说的“开机引导”以及提供创新思维的灵感。

AI进步速度远比人类快得多，一个人从刚出生到能够自己照顾自己，足以让AI出现翻天覆地的进化，而任何AI的突破都可以零成本的复制，这是一个彻底的群体生命。比如十几年前人类还不相信AI能够在围棋领域战胜人类，但现在呢？任何一个人在AI支持下，都足以轻易战胜任何人类。

ChatGPT也是类似的，目前ChatGPT还是比较初级，有非常多错误，也无法适应复杂的需求。

以ChatGPT最相关的编程为例，目前ChatGPT基本介于初级和中级水平之间，对于有固定模式的算法类问题尤为擅长，虽然ChatGPT通过了谷歌L3级别的编码面试，但这并不意味着ChatGPT可以独立完成工作。

谷歌的面试针对的是人不是机器，这就像智商测试针对的是人一样。智商测试考察的是人的知识广度、逻辑推理、观察能力、数学能力、记忆力等等，倘若直接拿人的标准去测试机器，那ChatGPT轻易就能测出来140+甚至180+的智商，但能说明AI超越人类吗？

就比如编码的实际需求，不是按照固定格式写程序，而是要理解并满足业务需求，一个能说清楚需求的甲方和产品经理是所有程序员的福音。现在的AI是不可能独立完成的，包括专门用于编程的AI。

但AI确实可以极大提高人的工作效率，这就是ChatGPT等的突破性，可以帮助一个初级程序员在更短时间内达到中级以上水平，更极大缩短工作时间，从而实现1个人替代更多人，需要的薪资更少。

正因此，AI对脑力、经验劳动的替代或许会先于对体力劳动的替代，毕竟线下不同于线上，AI想要独立改变现实，还需要更加灵活、低成本的载体，绝非一朝一夕能够实现的，在很多场合，人远比机器更加灵活、更加经济。

但这仍然不能打破人对AI替代自己的恐慌，为了解答这个问题，就需要从更本质的角度入手。以下是小镇的看法，欢迎大家讨论。

首先，我们需要先明确人工智能的发展阶段，从人与AI的关系入手，大致可以分为三个阶段：

第一阶段：人与AI交互阶段。

人向AI发出指令，AI通过人类预设的算法完成信息检索、计算和推理得出结果，并反馈给人类，从而形成交互。在这个阶段AI完全从属于人类，只能满足人类的有限需求。

在这个阶段，模仿人的逻辑归纳能力是最关键的，这也是认为ChatGPT是一次突破的关键原因，如果硬要做个界定的话，ChatGPT实现了这个阶段从初级到中级的突破，但后面的路还有很长。

第二阶段：人与AI结合阶段

元宇宙、脑机接口等等属于这一阶段的典型代表，核心是人与AI各自特长的有机结合。比如借助脑机接口，把AI的载体植入人的身体，将人类的创造性思维和机器的记忆与智能运算能力相结合；又比如机器直接读取人脑的生物电信号，使得人脑可以直接操控外部事物；又或者借助VR\AR等技术，打造元宇宙这样的第二虚拟世界。

有很多作品描述了这一阶段，比如电影《阿凡达》受伤的退役军人通过意念远程控制其替身（BCI脑机接口技术），一些动漫、电影中的思维控制机器人等等。现实中也有探索，比如美国国防部从2004年开始，在杜克大学等全美6个实验室展开了相关研究，虽然距离电影中的最终目标相差甚远，但已经有了一些突破。

欧盟、日本等也开启了类似的“脑计划”，这个计划将成为人类继曼哈顿计划（核能）、阿波罗登月计划（航天）、人类基因组计划（生物）之后的第四大科学工程。

中国正在加大投入，“中国脑计划”于2013到2014年开始酝酿，“十三五”规划已列为国家重大科技创新和工程项目，南北方中心已经成立，到2021年时，已经部署指南方向59个，仅国家投入预算超过30亿元。

有读者留言说ChatGPT是不是元宇宙之后的又一个资本炒作。小镇回答说不是，关键就在于ChatGPT是我们现实已经够得着的，属于人工智能初级阶段，而元宇宙属于更遥远的未来。

第三阶段：人与AI融合阶段

前两个阶段，仍然是以人为主，AI无法离开人类单独存在，一旦没有人类，AI就是死物，当进入第三阶段，AI就具备了类似人类感知外部环境并自主改变环境的能力。到了这一步，才能说AI能够一定程度上模拟人类的情感和价值判断能力。

《流浪地球2》中的图恒宇和图丫丫这两个“数字生命“就是这一阶段的最终目标。

完成这三大阶段之后，也就完成了马斯克所说的“开机引导”，依靠生物的力量，终于让AI生命诞生。这是一个极为漫长的过程，渐渐变成多数人无法对社会做出有效贡献，少数精英将在AI的支持下承担更大的重任，这个过程中必将带来巨大冲击。

那么到底需不需要担心AI彻底取代人类？更甚至，AI会不会毁灭人类？

小镇认为不必担心，需要从哲学角度思考：人到底能不能造神？神能否脱离人类而存在？

无限的东西，比如全知全能只存在于幻想的世界，当幻想变成现实，就必然是一个有限的东西，一定有其边界，有边界就必须存在于某个环境中。

人类对自身的认知才刚刚起步，我们无法解释人的意识到底是怎么形成的？凭什么一堆细胞的堆叠就能够产生感知世界、改变世界的意识？

既然人是有限的，人的造物凭什么就能超越人类？

马克思将人的本质定义为一切社会关系的总和。随着人类的发展，财富和生产力的不断发展，每一个个体通过人与人、人与物的关系融入社会。人工智能本就诞生于人类社会，是对人的模拟，自然会像历史上曾经出现的一切工具、物质、技术乃至人一样融入人类社会，只是在融入的过程中，会通过与博弈找到自己的位置，从而塑造新的社会形态，又怎么可能取代甚至毁灭人？

毁灭了人，人工智能这个类人，也就失去了其存在的基础。

当然，最后的这些想法也仅仅是脑洞，现在还没出生的人大概率看不到了。对我们每一个人类个体而言，更现实的问题是，如何不被智能取代，又或者在不得不被取代的时候，如何让自己过得更好？达成自我的和解。

其他文章推荐

如果喜欢，还请点赞、“在看”和关注吧

欢迎分享，让更多人发现“大树乡谈”

防失联，请关注“大树乡谈2022”